Sau khi được bổ nhiệm làm chỉ huy trưởng của dàn nhạc Leipzig Gewandhaus vào năm 1835, Mendelssohn đã cho người bạn thuở thơ ấu của mình là Ferdinand David làm concertmaster của dàn nhạc. Nguồn gốc của tác phẩm được hình thành từ sự hợp tác chuyên nghiệp này. Trong bức thư ngày 30 tháng 7 năm 1838, Mendelssohn đã viết cho David: "Tôi rất muốn viết cho anh một concerto vào mùa đông tới. Một giai điệu Mi thứ cứ vang lên trong đầu tôi, giai điệu mở đầu của nó không để cho tôi yên."

Concerto mất sáu năm để hoàn thành. Có nhiều nguyên nhân cho sự trì hoãn này, bao gồm sự tự nghi ngờ bản thân, bản giao hưởng số 3, và một thời kì không vui vẻ ở Berlin theo yêu cầu của vua Frederick William IV của Phổ. Tuy vậy, Mendelssohn và David vẫn giữ liên lạc thường xuyên trong thời kì này, Mendelssohn luôn tìm lời khuyên về kĩ thuật và sáng tác từ David. Thực sự, đây là violon concerto đầu tiên sáng tác với sự tham gia của người được đề tặng và là một nghệ sĩ violon chuyên nghiệp, tạo tiền đề cho những sự hợp tác khác sau này. Bút tích để lại cho thấy tác phẩm hoàn thành ngày 16 tháng 9 năm 1844, nhưng Mendelssohn vẫn tiếp tục tìm lời khuyên từ David cho đến khi tác phẩm ra mắt. Concerto được biểu diễn lần đầu tại Leipzig vào ngày 13 tháng 3 năm 1845, với David là nghệ sĩ độc tấu, nhưng Mendelssohn bị ốm nên chỉ huy là nhà soạn nhạc Đan Mạch Niels Gade, một nhạc sĩ được Mendelssohn bảo trợ. Mendelssohn chỉ huy tác phẩm lần đầu vào này 23 tháng 10 năm 1845, David tiếp tục vai trò nghệ sĩ độc tấu.